בנם של בתיה וירחמיאל. נולד ביום י"ז באדר ב' תרפ"ט (29.3.1929) ברמת גן.
הרצל גדל ברמת גן, בה קבעו הוריו את משכנם לאחר שעלו מרוסיה בשנת 1924. הוא למד בבית ספר יסודי בעיר מגוריו ולאחר מכן בתיכון למסחר בתל אביב. נוסף על לימודיו היה חבר בתנועת "הצופים", שבט "הקהילה".
הרצל גדל בבית ציוני לאומי. אחיו הבכור יעקב נמנה עם מייסדי מחתרת לח"י (לוחמי חירות ישראל). בהיותו בן חמש-עשרה התגייס גם הרצל לארגון, והוצב במחלקת הנוער. תפקידו הראשון היה הדבקת כרוזים. בהמשך מונה להיות אחראי על שני תאי נוער, עבר הכשרה לשימוש בנשק והשתתף בפעילויות של הארגון.
באמצע שנות הארבעים עזב הרצל את פעילותו במסגרת הלח״י בארץ ויצא לארצות הברית. עם בואו לניו יורק חבר אל שליחי הארגון שם והשתלב בפעילות הסניף המקומי. הוא עסק בחינוך בני נוער יהודים ובתכנון פעולות שונות.
בשנת 1949 חזר הרצל לישראל והתגייס לצה"ל. הוא הצטרף לקיבוץ נווה יאיר (כיום עין השלושה), שהקימו יוצאי מחתרת לח"י בנגב המערבי. בשנת 1950 הקיבוץ התפרק והרצל המשיך לשרת בצבא קבע.
בראשית שנות החמישים היה מפקד מחלקה ביחידה 30 – יחידה מיוחדת של צה"ל שפעלה במסגרת חטיבת הנגב. לאחר מכן שימש כקצין אג"ם של חטיבה 11 בדרגת רב-סרן.
הרצל השתחרר משירות הקבע בשנת 1956, והמשיך לשרת במילואים כמפקד גדוד בדרגת סגן-אלוף.
בשנת 1950 נשא לאישה את רבקה, שאותה הכיר בימי הפעילות בלח"י. בראשית דרכם התגוררו בבאר שבע, ובשנת 1957 עברו לגור במושב אורות שבמועצה האזורית באר טוביה, שם גידלו את ילדיהם. הם ניהלו משק מטע פרי וגם מפעל אומנות לחפצי חן ממתכת. בשנת 1969 העתיקו את מגוריהם לירושלים והתגוררו בעיר העתיקה.
אחרי שנים של שירות מילואים, החליט הרצל אחרי שלחם במלחמת יום הכיפורים (אוקטובר 1973) לשוב לצבא קבע.
תוך כדי שירותו הוא נפגע בליבו, והוכר כנכה צה"ל.
בראשית שנות השמונים הרצל נישא לכרמלה. הם התגוררו בשכונת גילה שבירושלים.
הרצל היה אדם של אנשים והמדינה הייתה חשובה לו מאוד. היה אוטודידקט ובעל ידע נרחב בתחומים שונים, ממקימי התנועה "מולדת". הוא המשיך לתרום לצבא והיה שותף לקשר רעיוני עשיר בין האוניברסיטה העברית לצה"ל, ממקימי בית הספר "תלפיות" לילדים מחוננים בקמפוס גבעת רם שבירושלים.
כל חייו של הרצל היו מוקדשים לאהבת האדם ולאהבת עם ישראל, כתבה רעייתו.
הרצל אליאב נפטר ביום י"ט בתשרי תשס"ג (25.9.2002). בן שבעים ושלוש בפטירתו. הובא למנוחות בבית העלמין גבעת שאול בירושלים. הותיר אחריו אישה, ילדים ואחים.
הרצל מונצח באתר העמותה להנצחת מורשת לוחמי חרות ישראל (לח"י).